Phường Sông Bằng trước đây vốn là một phần tiểu khu Sông Bằng thuộc thị xã Cao Bằng.

Ngày 10 tháng 9 năm 1981, giải thể tiểu khu Sông Bằng để thành lập phường Sông Bằng và xã Ngọc Xuân.[2]

Đến năm 2019, phường Sông Bằng được chia thành 23 tổ dân phố, đánh số từ 1 tới 23.

Ngày 9 tháng 9 năm 2019, sáp nhập hai tổ dân phố 2 và 3 vào tổ dân phố 1, sáp nhập ba tổ dân phố 4, 5, 6 thành tổ dân phố 2, sáp nhập hai tổ dân phố 7 và 8 thành tổ dân phố 3, sáp nhập hai tổ dân phố 9 và 10 thành tổ dân phố 4, sáp nhập hai tổ dân phố 11 và 12 thành tổ dân phố 5, sáp nhập hai tổ dân phố 14 và 15 thành tổ dân phố 6, đổi tên tổ dân phố 16 thành tổ dân phố 7, sáp nhập ba tổ dân phố 13, 17, 24 thành tổ dân phố 8, sáp nhập hai tổ dân phố 18 và 19 thành tổ dân phố 9, sáp nhập hai tổ dân phố 20 và 21 thành tổ dân phố 10, sáp nhập hai tổ dân phố 22 và 23 thành tổ dân phố 11.[3]